1
课程概述:生成式人工智能时代中的不确定性
PolyU COMP5511Lecture 5
00:04

第5课标志着COMP5511课程的一个关键转折点。我们正从经典计算的确定性逻辑,以及早期分类模型的监督式确定性,转向 生成式人工智能的概率核心。在本节课中,我们将探讨现代人工智能模型为何不输出“事实”,而是输出 概率分布,并揭示使大型语言模型能够创作诗歌、扩散模型能够从噪声中生成图像的内在机制。

1. 范式转变:从逻辑到概率

  • 超越IF-THEN:从僵化的规则转向灵活的统计可能性。
  • 确定性的终结:理解为什么生成式AI的结果是 非确定性的 设计上的必然。
  • 概率作为工具:在“生成式人工智能时代”,如何将 不确定性视为一种特性 用于创造力,而非需要修复的缺陷。

2. 创造的概率引擎

生成式AI依赖于从高维概率空间中采样。无论生成文本还是图像,模型都在不确定性中导航以创造新内容:

  • 大型语言模型(LLMs):预测下一个标记不是单一选择,而是作为 可能性的分布
  • 扩散模型:从混乱的 高斯噪声
  • 采样过程:如何利用随机性来防止重复和“机械式”的输出。

3. 在不可预测世界中的智能体

自主智能体必须应对“开放世界”环境,在其中每一个行动都伴随着未知的风险与回报。

幻觉的权衡
纯粹确定性的模型虽然安全,但缺乏原创思维。通过接纳不确定性,我们激发了创造力,但也带来了 幻觉——即模型自信地生成看似合理但错误的信息。
概念化采样逻辑
1
Define functionGenerate_Response(Prompt,Temperature):
2
Calculateprobability distribution for all possible next tokens;
3
Adjust distribution based on Temperature(Higher = more diverse, Lower = more focused);
4
Select next token using Weighted Random Choice;
5
Repeat until completion.
Probabilistic Modeling
Modern AI views the world through the lens of statistics rather than binary truths.
Gallery Image